Thời kỳ đầu, từ án lệ (案例) được cấu tạo bởi từ án (案), và lệ (例). Trong đó, án được hiểu là văn thư, thể lệ, các bản kiện tụng đã quyết định xong, vụ phạm pháp hoặc tranh chấp quyền lợi cần được xét xử trước tòa án hoặc quyết định của tòa xét xử vụ án;[5] lệ được hiểu là lề lối, điều quy định đã trở thành nề nếp, mọi người cứ theo thế mà làm hoặc điều đó được lặp đi lặp lại nhiều lần, tự nhiên đã thành thói quen.[5] Trong khía cạnh quốc tế các nước ảnh hưởng tới Việt Nam, thông luật Anh – Mỹ định nghĩa án lệ là vụ án đã được giải quyết tạo cơ sở cho việc xét xử các vụ án sau này mà có những sự kiện hoặc vấn đề pháp lý tương tự, là nguồn chủ yếu của pháp luật nước Anh,[6] là lời phán quyết của tòa án, cơ sở chủ yếu trong xét xử của pháp luật Hoa Kỳ;[7] luật thành văn nước Pháp định nghĩa án lệ là bản án có tiền lệ, lặp đi lặp lại và có tính thống nhất các cấp xét xử, là một nguồn luật thứ yếu.[8][9] Bên cạnh đó, còn có thuật ngữ liên quan là tiền lệ pháp, thuật ngữ này và án lệ đều chỉ tới những vấn đề về pháp luật trong quá khứ, tuy nhiên án lệ thể hiện cụ thể hơn tới đối tượng là vụ án và xét xử của tòa án.[10]

Nửa sau thế kỷ XX cho đến nay ở Việt Nam, thuật ngữ án lệ được đề cập tới trong hoạt động nghiên cứu, từng được xem là một danh từ cũ đã được dùng từ thời Pháp thuộc, là những quy tắc do các tòa án xem xét trong khi vận dụng pháp luật để xét xử các vụ án cụ thể, đã hình thành dần dần bằng cách hiểu và thái độ giải quyết giống nhau về một số điểm pháp lý, áp dụng luật một cách giống nhau trong nhiều vụ án;[11] hoặc là chế độ trong đó thẩm phán tiến hành xét xử không mâu thuẫn với quan điểm pháp lý được thể hiện trong phần xét xử của tòa án cấp cao nhất của một nước, đối với các vụ án tương tự.[12] Đến năm 2015, thuật ngữ tên gọi này chính thức được đưa vào văn bản quy phạm pháp luật với cách hiểu theo nghĩa hẹp là bản án, quyết định của tòa án chứa đựng sự giải thích, áp dụng pháp luật được tòa tối cao lựa chọn với số lượng cụ thể để vận dụng giải quyết vụ án có nội dung tương tự về sau.[1][13][14]